Think Before You Link: Rarity, Reasoning, and Retrieval in Multilingual Entity Linking
先思后链:多语言实体链接中的稀有性、推理与检索
🧭 多模态实体链接 · 推理+检索
Carnegie Mellon University
提出训练免的视觉-语言模型框架,结合迭代搜索与推理,提升多语言多模态实体链接在稀有实体上的准确率
📌 工作参考价值(4 点)
- 稀有度定义不能只看流行度(如 pageviews),应加入知识图谱结构指标(文档丰富度、连接度),能暴露不同失败模式;在电商长尾商品/实体识别中,可以用类似多维稀有度切片评估模型,避免只优化头部。
- 训练免框架实用性强:用 reasoning-capable VLM 动态搜索 Wikipedia 并迭代收集证据,无需微调即可部署;适合在业务中快速构建多语言实体链接/消歧模块,尤其处理长尾 query 或冷启动实体。
- 推理与检索互补的结论可直接迁移到 RAG/Agent 系统:单独检索能提升稀有实体但可能损害整体,单独推理对稀有实体帮助有限;组合使用时,让模型在推理循环中根据检索反馈调整判断,比一次性生成更稳健。
- 多模态信息(如图像中的文字、logo)对消歧很有价值;在电商商品匹配、query 到商品实体链接中,可以利用商品图片中的文字信息辅助文本匹配,并配合外部知识库检索。